AI IP进阶:稀疏计算与模型量化硬件适配实战

📚 共计 30 章节
01
稀疏计算基础
什么是稀疏性 · 稀疏矩阵存储格式 (CSR/CSC/COO) · 硬件动机
CSRCOO硬件视角
02
结构化与非结构化稀疏
N:M结构化稀疏 · 非结构化硬件挑战 · 剪枝策略对比
N:M剪枝硬件适配
03
硬件稀疏加速器架构
脉动阵列稀疏化 · 稀疏感知数据流 · 索引处理单元
脉动阵列数据流
04
模型量化基础
定点数与浮点数 · 对称/非对称量化 · scale/zero-point
定点对称量化
05
量化感知训练 (QAT)
伪量化节点 · 直通估计器STE · 训练技巧与收敛性
QATSTE
06
训练后量化 (PTQ)
校准数据集 · KL散度/MSE · 逐层/逐通道量化
PTQKL散度
07
混合精度量化
位宽分配策略 · 硬件支持模式 · 精度与性能权衡
混合精度位宽
08
稀疏+量化联合优化
稀疏量化误差 · 联合损失函数 · 硬件协同设计
联合优化协同设计
09
硬件指令集扩展
SparseMAC指令 · 向量化加载/存储 · 控制流优化
ISASparseMAC
10
数据流与内存层次
稀疏DMA · 片上SRAM管理 · 权重/激活复用
DMASRAM
11
编译器前端
稀疏张量IR · 计算图识别 · 自动混合精度推导
IR编译器
12
编译器后端
指令调度 · 寄存器分配 · 循环展开与流水线
调度流水线
13
RTL级稀疏加速器设计
Verilog稀疏乘法器 · 状态机控制 · 仿真调试
VerilogRTL
14
FPGA原型验证
Vitis HLS稀疏卷积 · AXI总线 · 资源利用率优化
FPGAHLS
15
ASIC实现考量
标准单元库 · 时钟门控 · DFT对稀疏逻辑影响
ASICDFT
16
性能建模与分析
Roofline模型 · 计算强度 · 瓶颈定位
Roofline性能分析
17
基准测试与评估
稀疏数据集 · TOPS/W · 对比基线
基准CIFAR-10
18
稀疏注意力机制
Transformer稀疏注意力 · FlashAttention变体 · 硬件加速
注意力FlashAttention
19
图神经网络 (GNN) 稀疏加速
GNN稀疏模式 · 聚合函数硬件 · 图划分负载均衡
GNN聚合
20
推荐系统的稀疏嵌入
大规模嵌入表 · 哈希压缩 · 硬件查找表
嵌入推荐系统
21
动态稀疏性
运行时稀疏预测 · 动态剪枝硬件 · 模式切换开销
动态运行时
22
稀疏训练加速
梯度稀疏化 · Top-K通信压缩 · 异步训练
梯度稀疏Top-K
23
低精度训练
FP8/FP16训练 · AMP框架 · 梯度缩放与下溢
FP8AMP
24
硬件安全与稀疏
侧信道攻击 · 稀疏权重加密 · 可信执行环境
安全侧信道
25
多芯片互联与稀疏
Chiplet架构 · Die-to-Die接口 · 全局稀疏调度
Chiplet互联
26
开源工具链
TVM稀疏支持 · MLIR稀疏方言 · PyTorch量化工具
TVMMLIR
27
行业案例研究
NVIDIA稀疏核心 · Google TPU量化 · Apple Neural Engine
NVIDIATPU
28
前沿趋势
神经形态计算 · 存算一体 · 光学计算与稀疏
神经形态存算一体
29
项目实战
端到端稀疏量化部署 · 性能调优 · 报告撰写
实战PyTorch
30
课程总结与展望
关键技术回顾 · 未来方向 · 职业发展建议
总结职业